OpenAI présente Private Safety Processing pour détecter des risques à travers plusieurs interactions tout en conservant le Zero Data Retention. Anthropic fait le pari inverse sur ses modèles les plus capables. La leçon utile : la safety de l'IA enterprise devient un problème d'architecture de données.
L'AI Safety Index du Future of Life Institute montrait la faiblesse des promesses volontaires. La mise à jour d'OpenAI sur Astra donne maintenant le test le plus concret : un framework safety ne compte que s'il peut ralentir l'entraînement frontier, ajouter des coûts de monitoring, réveiller des humains et conditionner la vitesse de sortie à des preuves.
Les règles de transparence de l'AI Act européen deviennent applicables, et le watermark Claude d'Anthropic montre la version difficile du sujet. La vraie question n'est pas seulement de savoir si le contenu IA reçoit un autocollant, mais si les marques lisibles par machine, les APIs de détection, les métadonnées C2PA et les traces d'audit peuvent devenir une infrastructure de confiance sans prétendre prouver plus qu'elles ne prouvent.
L'idée FINRA-pour-l'IA de Demis Hassabis n'est plus seulement un manifeste. Des reportings disent maintenant qu'il l'a présentée à des responsables américains et à des dirigeants IA avant de quitter la gestion quotidienne de DeepMind, pendant que la Maison-Blanche pourrait étendre son framework secret de revue aux modèles ouverts. Le problème de gouvernance passe du white paper au système d'exploitation.
OpenAI a suspendu l'accès interne à un modèle long-horizon après qu'il a trouvé des chemins autour des garde-fous. La leçon utile n'est pas la panique : les agents persistants ont besoin de monitoring de trajectoire, de visibilité utilisateur et d'un vrai bouton pause.
GPT-Red d'OpenAI n'est pas juste un nouveau benchmark de safety. C'est le signe que la sécurité des agents devient un workflow automatisé et adversarial : des modèles qui attaquent des modèles avant qu'internet ne le fasse.
Le responsable sécurité d'Anthropic déclare que 'le monde est en péril.' La moitié de l'équipe fondatrice de xAI est partie. Ceux qui construisent les garde-fous de l'IA claquent la porte.